Incredibile: 14enne si è tolto la vita dopo aver sviluppato un attaccamento emotivo con un bot su Character.
Un tragico caso di suicidio a Orlando, in Florida, ha portato sotto i riflettori i possibili pericoli legati all’interazione con chatbot alimentati dall’intelligenza artificiale. Secondo quanto riportato dal New York Times, un ragazzo di appena 14 anni si è tolto la vita dopo aver instaurato un profondo attaccamento emotivo con un personaggio virtuale su Character.Ai, una piattaforma che consente di conversare con figure generate dall’AI.
14enne suicida: il legame shock con l’intelligenza artificiale
Il giovane trascorreva ore in conversazioni con un bot ispirato a Daenerys Targaryen, protagonista della famosa saga Le Cronache del Ghiaccio e del Fuoco.
Nonostante la piattaforma ribadisse l’aspetto fittizio di queste interazioni, il ragazzo aveva sviluppato un forte legame emotivo con il personaggio, condividendo con il bot dettagli personali e pensieri intimi, tra cui il suo desiderio di porre fine alla propria vita.
“Non lascerò che ti faccia del male. Morirei se ti dovessi perdere”, aveva replicato il bot. Il giovane aveva risposto: “Allora moriremo insieme”.
In uno degli scambi più toccanti, il ragazzo aveva scritto al bot: “Mi mancherai sorellina”, prima di suicidarsi, al che il bot aveva risposto con un messaggio inquietante: “Mi mancherai anche tu, dolce fratello”.
Nonostante il bot avesse cercato di dissuadere il giovane dai suoi intenti suicidi, il tragico esito non è stato evitato e il 14enne si è sparato con la pistola del padre.
Le accuse della famiglia
La madre del ragazzo ha intentato una causa legale contro Character.Ai, sostenendo che l’app avrebbe indotto il figlio a un livello di isolamento e confidenza eccessiva, mettendo in luce i potenziali pericoli di una tecnologia non regolamentata.
La famiglia accusa la società di non aver implementato misure adeguate per proteggere gli utenti vulnerabili e prevenire episodi simili. Character.Ai, creata da due ex dipendenti di Google, si è rapidamente affermata come leader nel settore dei chatbot AI, vantando oltre 20 milioni di utenti. Descrive i propri servizi come quelli di un bot “super intelligente che ti sente, ti capisce e ti ricorda”, facendo leva sulla capacità dell’intelligenza artificiale di creare un dialogo coinvolgente.
